Математико-синтаксическая теория как средство оптимизации алгоритмов работы с естественными языками

Abstract

В данной научной работе были исследованы процессы и результаты, относящиеся к генерации текста посредством цепей Маркова первого порядка и рекуррентных нейронных сетей. Марковские цепи позволяют установить статистическую закономерность связи тех или иных слов, в результате имея алгоритм, способный к использованию только уже бывших в статистике паттернов. В то же время нейронная сеть на основе статистики позволяет установить закономерности построения предложений, то есть частично восстановить синтаксические правила языка, что позволяет ей работать значительно эффективнее на новых данных. На основе данного исследования было решено заняться модификацией данного процесса, что в последствии привело к появлению математико-синтаксической теории.